非線形回帰分析 - 06

線形回帰のパラメータの推定

傾き,a1,をシフト

具体的な値は,参考にしたサイトの値を使わさせていただきます.

a1      

0.32

0.42 0.502102 0.62 0.737898 0.82 0.92
δ       -0.3 -0.2 -0.1179 0 0.1179 0.2 0.3
a0       5.72 5.32 4.99 4.52 4.05 3.72 3.32
                     
i X y     \( \hat{y} \)
1 0 5   5.72 5.32 4.991593 4.52 4.048407 3.72 3.32
2 2 5   6.36 6.16 5.995797 5.76 5.524204 5.36 5.16
3 3 7   6.68 6.58 6.497898 6.38 6.262102 6.18 6.08
4 4 6   7 7 7 7.00 7 7 7
5 6 9   7.64 7.84 8.004203 8.24 8.475796 8.64 8.84
6 9 10   8.6 9.1 9.510508 10.1 10.68949 11.1 11.6
                     
S (\(y_i - \hat{y} \)の平方和)       7.28 4.78 3.475

2.78
(Se)

3.475 4.78 7.28
dS (Seとの差分)       4.5 2.0 0.695 0 0.695 2.0 4.5
                     

傾きを変えて切片を近似すると,このようなグラフを得ることができます.

ここで,S,Se,は,

・残差平方和

推定値からの残差

\(\Large \displaystyle Se = \sum_{i=1}^{n} \left( y_i -\hat{a_0} - \hat{a_1} X_i \right)^2 \)

a1をシフトさせたときの,推定値からの残差

\(\Large \displaystyle S = \sum_{i=1}^{n} \left( y_i -\hat{a_0} - a_1 X_i \right)^2 \)

であり,傾きの値a1を,δ,だけシフトさせて,固定し,その際のa0の推定値をソルバーで推定しました.

a1の標準誤差も加えてあります.

dS,を見ていただけるとわかるように,推定値,Seが一番小さく,左右対称に増加していることがわかります.

グラフ化すると,

のように,二乗+定数できれいに近似できます.

ここで,分散値は,

・分散

\(\Large \displaystyle Ve = \frac{1}{n-2} \sum_{i=1}^{n} \left(y_i -\hat{a_0} - \hat{a_1} X_i \right)^2 = \frac{Se}{n-2} = \frac{2.78}{6-2} = 0.695 \)

であり(a0,a1,の二つのパラメータが2つあるので,自由度は,n-2),平均値の議論では,

\(\Large \displaystyle S_{SE} = Se + Ve \)

となり,当てはまりの悪さ,S,がSe + Ve,の場合のδが,標準誤差,SE,となるので,ちょうどa1のシフトが回帰分析で計算した標準誤差,±0.1179,の時に,Se+Ve,となります.

 

では,次に,

 切片,a2,をシフト

させてみましょう.

 

 

l tr